— Спасибо тебе, Мардж, — улыбнулся Жан, — но… ты ведь слышала, что сказал Джордж. Речь идет о пилоте, который будет делать все лучше, чем я. Это вполне возможно. И так оно, черт возьми, и будет! Заменили шахтеров автоматами — так же заменят и нас. Я не обязан кричать «ура» по этому поводу, но я не могу и закрывать на это глаза.
— Что ж… Скажи, Джордж, ты работал когда-нибудь с компьютером, наделенным интеллектом?
— Конечно, Марджори. Искусственный разум — та область, которая очень тесно переплетается с моей.
— Хорошо. Тогда ты должен быть в курсе, что множество раз специалисты-ученые, создатели искусственного интеллекта, объявляли всему свету, что они совершили переворот и вплотную подошли к созданию полностью разумного компьютера. И каждый раз это кончалось пшиком.
— Да. Это печально.
— Нет. Неизбежно. Это всегда будет кончаться именно так. Компьютер может стать полностью разумным — какие сомнения?! Доведите его до уровня, идентичного человеческому разуму, и ему придется стать разумным. Но тогда он осознает, что он — не человек. Потом он обнаружит, что никогда не сможет стать человеком, и все, что он может, — это сидеть и подчиняться человеческим приказам… И тогда он сходит с ума. — Я пожала плечами. — Это тупик. Он не может быть человеком и никогда не сможет. Не исключено, что Жан и не сумеет спасти своих пассажиров в критический момент, но он постарается. Искусственное создание, не будучи человеком и не испытывая никакой лояльности по отношению к человеческим существам, может запросто разбить корабль… Просто так! Просто потому, что оно устало от несправедливого обращения с ним. Нет, Джордж, лично я полечу с Жаном, а не с твоим ИС, которое в конце концов станет ненавидеть род людской.
Только не с моим ИС, дорогая, мягко поправил меня Джордж. — Разве ты не заметила, в каком наклонении я все время обсуждал этот проект?
— Нет. Мне кажется…
— В сослагательном. Потому что ты не сказала мне сейчас ничего нового. Я никогда над этим не работал и не стану работать. Я способен создать такого пилота. Но я не способен встроить в это ИС то этическое восприятие, какое есть у Жана.
— Может быть, мне стоит на предстоящей встрече потребовать, чтобы любой пилот, будь он ИЧ, или ИС, проходил этический тест? — подумав спросил Жан.
— Какой тест, Жан? Я не знаю способа всунуть в него этические понятия, а Мардж только что убедительно объяснила, почему в данном случае не помогут никакие тренировки и обучения. Но так или иначе, каким тестом ты это обнаружишь? — Джордж повернулся ко мне. — Знаешь, когда я был студентом, — сказал он, — я читал старинные рассказы о роботах-гуманоидах… Да, очаровательные рассказы, и многие из них были основаны на, как их называли, законах роботехники. Главным в этих законах было то, что в каждого робота вводилось основное правило: он никогда не мог ни прямо, ни косвенно причинить вред человеку. Прекрасная основа для фантазии, но… Как это осуществить на практике? Что может заставить разумный организм нечеловеческого происхождения, электронный или органический, быть лояльным по отношению к людям? Я не знаю, как это сделать. Точно так же не знают и искусственные люди. — Джордж усмехнулся. — Разумность можно определить, как уровень мышления, на котором разум вопрошает: «А что во всем этом есть для меня?» Ну-с, Мардж, как насчет продажи мне одного свежего яичка? Быть может, я тогда попробую сказать, что в этом есть для тебя, а?
— Не слушай его, — вмешалась Жанет, — он положит тебя на холодный стол и станет вторгаться в лоно любви без всяких романтических намерений. Я-то знаю, я ведь уже трижды имела глупость поддаться на его уговоры. И он даже не заплатил мне.
— Как же я мог тебе заплатить, если у нас с тобой все общее? Марджори, дорогая моя девочка, стол совершенно не холодный, он очень удобный, и ты можешь в это время читать, или болтать по видеофону, или делать все, что тебе заблагорассудится. Теперь эта процедура уже не та, что сто лет назад, когда лезли через брюшную полость и нередко протыкали…
— Хватит! — прервал его Жан. — Тут, кажется, что-то новенькое… — Он прибавил звук на терминале.
— …Совет по выживанию. События, происшедшие за последние двенадцать часов, являются предупреждением для богатых и власть имущих о том, что время их сочтено и справедливость должна восторжествовать. Убийства и прочие наглядные демонстрации продолжатся до тех пор, пока не будут удовлетворены наши справедливые требования. Оставайтесь на местах и не выключайте местные каналы экстренных сообщений…
11
Даже те из вас, кто слишком молод, чтобы самим слышать это объявление, наверняка читали о нем и проходили в школах. Но все равно я должна кратко пересказать его, чтобы объяснить потом, как и почему повлияло оно на меня и на мою странную жизнь. Так называемый Совет по выживанию объявил себя тайным сообществом «простых людей», посвятивших себя искоренению миллиардов несправедливостей, царящих на Земле и на всех планетах, куда только ни ступала нога человека. Этому они решили отдать свои жизни.
Но для начала в их планы входило — взять кое-какие жизни. Они заявили, что составили списки тех, кто «дергал за веревочку» на нашей планете и за ее пределами — свой список для каждого территориального государства и один общий список «вождей» мирового масштаба. Имена в этих списках и были их мишенями.
Перечислив имена мировых «вождей», голос с терминала приступил к списку для Британской Канады. По выражениям лиц и глубокомысленным кивкам моих хозяев я видела, что они согласны с большинством кандидатур. Заместитель премьер-министра был в этом смысле, а вот сама премьер — к моему и, вероятно, к (еще большему) ее собственному удивлению, — в списке отсутствовала. Как бы вы чувствовали себя, если бы потратили всю свою жизнь на политику, прошли весь путь до самой вершины, а потом появились бы какие-нибудь умники и объявили, что вы настолько не имеете никакого значения, что вас даже убивать ни к чему? Это все равно, как если бы вас изнасиловала кошка!
Далее голос пообещал, что в грядущие десять дней убийств больше не будет. Если по истечении этого срока положение не исправится, каждый десятый выбранный по жребию из этого списка будет уничтожен. Приговоренные не будут названы, они будут просто убиты. Еще через десять дней — опять каждый десятый. И так до тех пор, пока выжившие не создадут Утопию.
Голос объяснил, что Совет — никакое не правительство и не собирается заменять какой бы то ни было правительственный орган. Совет — это просто гвардия моралистов, олицетворяющих собой гражданское сознание общества. Те, кто выживает, так и останутся у власти, но они выживут лишь при условии, что будут творить справедливость. Пытаться уйти в отставку и сложить с себя бремя власти — бессмысленно, о чем их предупредили, и:
— Вы слушали Голос выживания! Близится рай на Земле!
После этого последовала длинная пауза — слышно было, как проматывается пустой конец пленки, а потом на экране появился диктор.
Первой нарушила молчание Жанет:
— Да, но… — начала она, однако Жан резко перебил:
— Что «но»?
— Нет сомнений, что в этом списке значатся самые влиятельные люди страны… Власть имущие. Представь, что ты — в этом списке и настолько труслив и глуп, что согласен сделать всё, лишь бы уцелеть. Ну, и что ты будешь делать? Что есть справедливость?
(«Что есть истина?» — спросил Понтий Пилат и… умыл руки. У меня ответов не было, поэтому я молчала.)
— Дорогая, это же очень просто, — ответил ей Джордж.
— Просто?!
— Конечно. Они все здорово упростили. Каждый шеф, босс или, допустим, тиран изначально знает, что он должен делать. Так во всяком случае предполагается — ведь это его работа. Если он делает то, что должен, что ему положено, все идет нормально. Если же его постигает неудача, ему предлагают прислушаться к… гражданскому сознанию общества. С помощью доктора, м-мм… Гильотины.
— Джордж, сейчас не до шуток!
— Никогда не говорил серьезнее, дорогая. Если лошадь не берет барьер, пристрели лошадь. Продолжай дальше в том же духе и в конце концов ты найдешь лошадь, которая возьмет барьер. Если у тебя не кончатся лошади. Это особый вид псевдологики, с помощью которой большинство людей лезет в политику. И это заставляет порой сомневаться в том, что человечеством вообще можно управлять с помощью любой системы правительств.
— Правительство — всегда грязное дело, — буркнул Жан.
— Верно. Но убийство — еще грязнее.
Эта политическая дискуссия длилась бы еще дольше, если бы экран не осветился — кстати, я давно заметила, что политические дебаты никогда не иссякают сами по себе, пока их не оборвет что-то извне. На экране появился диктор, вернее, дикторша.
